Angelou sinh ngày 4 tháng 4 năm 1928 tại thành phố St. Louis, tiểu bang Missouri, với tên thật là Marguerite Ann Johnson. Marguerite là người con thứ hai của ông Bailey Johnson, một nhân viên chuyên về thực phẩm của Hải quân Mỹ, và Vivian Baxter Johnson, một y tá, nhưng cha mẹ cô bé đã ly dị nhau vào năm 1931. Anh trai của Marguerite tên là Bailey Jr. khi còn thơ ấu, đã gọi em gái bằng tên "Maya" do phát âm sai hai từ "my sister". Năm 3 tuổi, Marguerite và anh trai, khi đó 4 tuổi, đã bị cha mẹ gửi đi xa bằng xe lửa, từ Long Beach thuộc tiểu bang California, tới thị trấn Stamps thuộc tiểu bang Arkansas, và hai đứa trẻ thơ ngây chỉ có trên cổ tay hàng chữ ghi câu "Gửi người nào có liên quan" (To Whom It May Concern).

Tại thị trấn Stamps, Marguerite và Bailey được nuôi nấng bởi bà nội, Annie Henderson, và người chú Willie đã bị liệt nửa người. Annie sở hữu một cửa hàng thực phẩm tại một nơi mà người da đen vẫn còn bị kỳ thị và đe dọa. Ở đây, các hội viên của đảng 3 K thường đốt cây thánh giá lớn, hành hạ và treo cổ vài người da đen trong khi ngoài xã hội, mọi người da đen phải uống nước tại vòi nước dành riêng, phải ngồi phía sau xe buýt và phải vào rạp hát bằng cửa sau. Trong hoàn cảnh xã hội như thế, cô bé Marguerite mơ mộng có được mái tóc vàng, đôi mắt xanh và cô bé buồn tủi vì thân phận của kẻ da đen tóc quăn, cẳng chân lớn, hàm răng thưa mà "khoảng cách có thể gắn được cây viết chì số 2". Bailey và Marguerite theo học ngôi trường Lafayette nghèo khó, ngoài giờ học còn phải phụ giúp vào cửa tiệm thực phẩm, nuôi gà và chăm sóc mấy con heo.

Khi lên 8 tuổi, Margerite trở về thành phố St. Louis, sống với mẹ và bà Vivian thường say xỉn này có một người bạn trai gọi tên là Mr. Freeman, đã đe dọa và hãm hiếp cô bé Marguerite. Sau khi kẻ hung bạo này bị người chú của Marguerite giết chết, cô bé Marguerite đã chìm vào trong một thứ thế giới của sợ hãi và tội lỗi, rồi được trả về sống với bà nội Momma tại thị trấn Stamps khi trước. Dưới sự hướng dẫn của bà nội, Marguerite lấy lại được niềm tin vào cuộc sống và nhờ sự giúp đỡ của bà giáo cao tuổi Bertha Flowers, Marguerite Johnson đã đọc các tác phẩm của nhiều tác giả da trắng như Shakespeare, Kipling, Poe, Thackeray, James Weldon Butler và một số nhà văn da đen như Paul Dunbar, Langston Hughes, W.E.B. Du Bois, James Weldon Johnson.